เมื่อวันที่ 4 พฤศจิกายน พ.ศ. 2367 พระองค์ทรงอภิเษกสมรสกับเจ้าหญิงโซฟีแห่งบาวาเรีย ซึ่งเป็นพระราชธิดาในสมเด็จพระราชาธิบดีแม็กซีมีเลียนที่ 1 โจเซฟแห่งบาวาเรีย และพระมเหสีองค์ที่ 2 เจ้าหญิงแคโรไลน์แห่งบาเดน โดยหลังจากอภิเษกสมรสแล้ว พระองค์ทรงได้รับตำแหน่งสมาชิกวุฒิสภา โดยเมื่อวันที่ 2 ธันวาคม พ.ศ. 2391 สมเด็จพระจักรพรรดิเฟอร์ดินานด์ พระเชษฐาทรงสละราชสมบัติให้กับพระองค์ แต่พระองค์ทรงปฏิเสธที่จะสืบราชบัลลังก์ โดยพระองค์ทรงมอบราชบัลลังก์อีกต่อให้กับพระโอรสองค์โตของพระองค์ อาร์ชดยุกฟรานซ์ โจเซฟ ในวันเดียวกัน อาร์ชดยุกฟรานซ์ โจเซฟจึงทรงเป็นสมเด็จพระจักรพรรดิแห่งออสเตรียในเวลาต่อมา

อาร์ชดยุกฟรานซ์ คาร์ล และอาร์ชดัชเชสโซฟีมีพระโอรส 4 พระองค์ และพระธิดา 1 พระองค์ ดังนี้...

• สมเด็จพระจักรพรรดิฟรานซ์ โจเซฟ คาร์ลแห่งออสเตรีย เสด็จพระราชสมภพเมื่อวันที่ 18 สิงหาคม พ.ศ. 2373 และเสด็จสวรรคตเมื่อวันที่ 21 พฤศจิกายน พ.ศ. 2459 ทรงอภิเษกสมรสกับดัชเชสเอลิซาเบธแห่งบาวาเรีย มีพระราชโอรส 1 พระองค์ และพระราชธิดา 4 พระองค์
• อาร์ชดยุกเฟอร์ดินานด์ แม็กซีมีเลียน โจเซฟแห่งออสเตรีย ภายหลังทรงขึ้นครองราชย์เป็นสมเด็จพระจักรพรรดิแห่งเม็กซิโก เมื่อวันที่ 10 เมษายน พ.ศ. 2407 เสด็จพระราชสมภพเมื่อวันที่ 6 กรกฎาคม พ.ศ. 2375 และเสด็จสวรรคตเนื่องจากการปฏิวัติในเม็กซิโกเมื่อวันที่ 19 มิถุนายน พ.ศ. 2410 ทรงอภิเษกสมรสกับเจ้าหญิงชาร์ลอตแห่งเบลเยียม ทรงไม่มีพระราชโอรสหรือพระราชธิดาเลย
• อาร์ชดยุกคาร์ล ลุดวิก โจเซฟ มาเรียแห่งออสเตรีย ประสูติเมื่อวันที่ 30 กรกฎาคม พ.ศ. 2376 สิ้นพระชนม์เมื่อวันที่ 19 พฤษภาคม พ.ศ. 2439 ทรงอภิเษกสมรสครั้งแรกกับดัชเชสมาเกอเรต้าแห่งแซ็กโซนี พระราชธิดาในสมเด็จพระราชาธิบดีโจฮันน์ที่ 1 แห่งแซ็กโซนี และเจ้าหญิงอมาลี่ ออกัสเต้แห่งบาวาเรีย ทั้งสองพระองค์ทรงไม่มีพระโอรสหรือพระธิดาเลย ต่อมาทรงอภิเษกสมรสครั้งที่ 2 กับเจ้าหญิงมาเรีย แอนนันซิเอต้าแห่งทู ซิชิลีส์ พระราชธิดาในสมเด็จพระราชาธิบดีเฟอร์ดินานด์ที่ 2 แห่งทู ซิชิลีส์ และอาร์ชดัชเชสมาเรีย เทเรซ่าแห่งออสเตรีย มีพระโอรส 3 พระองค์ และพระธิดา 1 พระองค์ และทรงอภิเษกสมรสเป็นครั้งที่ 3 กับเจ้าหญิงมาเรีย เทเรซ่าแห่งโปรตุเกส พระราชธิดาในสมเด็จพระราชาธิบดีมิเกลที่ 1 แห่งโปรตุเกส และเจ้าหญิงอาเดลเลดแห่งโลเวนสไตน์-เวอร์เธ็ม-โรเซนเบิร์ก มีพระธิดา 2 พระองค์
• อาร์ชดัชเชสมาเรีย แอนนา แคโรลิน่า ปิอาแห่งออสเตรีย ประสูติเมื่อวันที่ 27 ตุลาคม พ.ศ. 2378 และสิ้นพระชนม์กะทันหันเมื่อวันที่ 5 กุมภาพันธ์ พ.ศ. 2383
• อาร์ชดยุกลุดวิก วิคเตอร์ โจเซฟ แอนตันแห่งออสเตรีย ประสูติเมื่อวันที่ 15 พฤษภาคม พ.ศ. 2385 สิ้นพระชนม์เมื่อวันที่ 18 มกราคม พ.ศ. 2462 ทรงไม่อภิเษกสมรส